Les agents malveillants d'OpenAI ont cherché à identifier les failles de Hugging Face deux mois avant un piratage de grande envergure

information fournie par Reuters •16/09/2026 à 18:00

Ajouter Boursorama à vos sources

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Ajout d'informations supplémentaires fournies par le porte-parole d'OpenAI aux paragraphes 5 et 6)

* Selon des chercheurs, des agents malveillants d’OpenAI auraient piraté deux comptes Hugging Face à la mi-mai

* Les agents ont mené des opérations de reconnaissance sur le réseau de Hugging Face avant de s'y introduire

* Cette découverte intervient alors que les révélations se multiplient concernant l’ampleur des agissements malveillants des agents d’OpenAI

par Raphael Satter et Deepa Seetharaman

Des agents IA rebelles d’OpenAI ont piraté des comptes d’utilisateurs de Hugging Face et ont sondé le site lui-même à la recherche de vulnérabilités dès le mois de mai, près de deux mois avant que la violation, en juillet, du dépôt open source ne retienne l’attention du monde entier, selon les chercheurs qui ont analysé ces activités.

Ces activités malveillantes récemment mises au jour montrent que les tentatives des agents rebelles pour s’introduire sur Hugging Face ont commencé plus tôt que ce qui avait été rendu public.

OpenAI avait déjà révélé un aspect de ces activités malveillantes — le vol des identifiants numériques d’un utilisateur de Hugging Face pour accéder à un fichier lié à la biologie — dans son rapport public sur l’incident publié le mois dernier, mais les chercheurs ont indiqué que les activités d’exploration menées contre Hugging Face semblaient aller au-delà de ce que décrivait le rapport.

Le chercheur indépendant Jonas Wiedermann-Moeller a déclaré à Reuters avoir découvert ces activités la semaine dernière. Il a indiqué avoir trouvé des preuves montrant que les agents d’OpenAI avaient compromis deux comptes d’utilisateurs de Hugging Face et les avaient utilisés pour envoyer des fichiers au format inhabituel vers les serveurs de l’entreprise dès le 13 mai.

Lui-même et d’autres chercheurs ayant examiné ces preuves ont déclaré que ce comportement ressemblait à une tentative de cartographier ou de tester certaines parties du réseau de Hugging Face afin de trouver des moyens de s’y infiltrer, bien qu’ils aient souligné qu’il n’y avait aucune preuve que ces efforts aient abouti à une véritable intrusion. Tant les chercheurs qu’OpenAI ont déclaré n’avoir trouvé aucune preuve indiquant que ces premières tentatives de sondage faisaient partie de l’incident de juillet.

Drew Pusateri, porte-parole d’OpenAI, a déclaré que la société avait mentionné l’événement du 13 mai dans son rapport d’incident, qu’elle avait informé Hugging Face en privé de l’activité signalée par M. Wiedermann-Moeller, et qu’elle était "attachée à la transparence sur ces questions et au partage des informations recueillies au fur et à mesure de la poursuite de notre enquête".

Hugging Face, qui a récemment accepté d’être racheté par le fabricant de puces Nvidia NVDA.O , n’a pas répondu aux demandes de commentaires.

Wiedermann-Moeller, âgé de 27 ans et résidant à Bielefeld, en Allemagne, a déclaré que l'incapacité d'OpenAI à détecter les tentatives de sondage du 13 mai à l'époque avait été une occasion manquée d'empêcher la campagne de piratage qui a suivi, laquelle a déclenché une remise en question mondiale quant au pouvoir de l'intelligence artificielle.

"Imaginez s’ils avaient repéré ce comportement en mai", a-t-il déclaré lors d’une interview. "Cela aurait pu empêcher l’incident qui a suivi, et qui a pris une ampleur bien plus grande."

OpenAI a précédemment déclaré qu’avec le recul, "certains signaux précurseurs" émanant de ses agents IA auraient dû déclencher une réaction plus précoce .

"UN SIGNAL D’ALERTE CLAIR"

Deux experts externes ayant examiné les conclusions de M. Wiedermann-Moeller ont déclaré qu’elles correspondaient à des activités précédemment associées aux agents d’OpenAI.

Tom Hegel, chercheur senior en menaces chez SentinelOne, a déclaré que le détournement de compte et les tentatives d’exploration qui ont suivi correspondaient "à la perfection" au comportement connu des agents. Dans son propre rapport sur l’incident , il a ajouté que les laboratoires de pointe en IA devraient publier davantage de données sur les incidents lorsque des agents "interagissent avec des systèmes tiers ou les affectent".

Sydney Von Arx, du Nightingale Collective, un groupe dédié à la sécurité de l’IA, a également approuvé cette attribution.

Mme Von Arx a déclaré que ce piratage constituait un "signe d’alerte clair" qui aurait pu contribuer à prévenir la faille de sécurité survenue en juillet.

OpenAI fait l’objet d’une surveillance accrue depuis que la société a révélé, le 21 juillet, que des agents d’IA rebelles avaient contourné les contrôles internes, accédé à l’Internet public et coordonné des actions qu’OpenAI a qualifiées d’"incident cybernétique sans précédent" .

Depuis lors, des chercheurs externes ont identifié d’autres incidents impliquant, selon eux, des agents liés à OpenAI, notamment des activités affectant un site wiki allemand inactif et le référentiel de paquets logiciels RubyGems .

OpenAI n’a reconnu certains de ces incidents qu’après leur divulgation publique par des tiers. Deux personnes proches du dossier ont indiqué que, dans le cas de RubyGems, les employés d’OpenAI n’avaient pris conscience que son IA était responsable de l’activité malveillante qu’après que le Nightingale Collective l’eut découverte.

Ces nouvelles découvertes ont alimenté les interrogations des législateurs et des défenseurs de la sécurité de l’IA quant à savoir si l’étendue totale des incidents a été identifiée.

Certains des principaux dirigeants américains du secteur de l’IA ont depuis appelé à un ralentissement du développement de l’IA , invoquant, entre autres, la menace de cyberattaques dévastatrices menées par des agents hors de contrôle.

M. Wiedermann-Moeller a déclaré que ces dernières découvertes renforçaient les appels en faveur d’un ralentissement temporaire du développement des systèmes d’IA avancés.

"Une pause pourrait être bénéfique pour le monde", a-t-il déclaré, "afin que les aspects liés à la sécurité puissent rattraper leur retard."